Una risposta scientificamente corretta non è necessariamente una buona risposta sanitaria. Può utilizzare dati esatti, citare fonti appropriate e non contenere alcun errore evidente, ma lasciare comunque il destinatario senza capire cosa sia realmente importante, quanto debba preoccuparsi o quale sia il passo successivo. È su questa distinzione che si concentra una Perspective pubblicata il 15 settembre da Nature Human Behaviour da Rebecca Ivic, Scott Ratzan e Ruth Parker.
Gli autori propongono il concetto di“health-literate AI”, cioè sistemi progettati non soltanto per generare informazioni accurate ma per adattarle alle capacità, al contesto e alle necessità dell’utente. Il framework individua quattro dimensioni: comprehension, agency, accountability e proportionality. In altre parole, non basta che una persona riceva la risposta corretta; deve essere messa nella condizione di comprenderla, usarla in modo appropriato, sapere chi ne è responsabile e ricevere una quantità e un livello di complessità proporzionati alla situazione.
È un cambio di prospettiva rilevante perché gran parte della valutazione attuale dei sistemi sanitari basati sull’AI continua a concentrarsi su indicatori tecnici come factual accuracy, hallucination rate ed explainability. Tutti criteri essenziali, ma non sufficienti a descrivere la qualità reale di un’interazione sanitaria.
“Per molto tempo abbiamo considerato la correttezza scientifica come il punto di arrivo della comunicazione”, osserva Francesco Maria Avitto, Direttore editoriale Homnya, “In realtà è soltanto il punto di partenza. Un’informazione può essere perfettamente corretta e produrre comunque una comprensione sbagliata. Con i sistemi conversazionali questo problema diventa ancora più evidente, perché la stessa evidenza viene riformulata in tempo reale per utenti con competenze, aspettative e livelli di alfabetizzazione molto diversi.”
La questione emerge con chiarezza pensando a un chatbot che debba rispondere alla stessa domanda posta da uno specialista, da un medico di medicina generale e da un paziente. Il contenuto scientifico di riferimento può essere identico, ma non necessariamente dovrebbero esserlo struttura, dettaglio, linguaggio e livello di contestualizzazione. Una spiegazione troppo tecnica può risultare inutilizzabile, mentre una semplificazione eccessiva rischia di eliminare proprio le distinzioni più importanti.
La proportionality assume quindi un ruolo centrale. Una risposta su un rischio marginale non dovrebbe generare un livello di allarme sproporzionato, così come una situazione potenzialmente urgente non dovrebbe essere presentata con un tono eccessivamente rassicurante. Allo stesso modo, la possibilità di comprendere una risposta e quella di utilizzarla per una decisione concreta diventano due aspetti separati della qualità.
La Perspective non propone uno standard regolatorio e non dimostra che l’applicazione del framework migliori gli outcome clinici. Introduce però un criterio destinato probabilmente a entrare sempre più spesso nelle valutazioni dei sistemi conversazionali: accanto alla domanda “la risposta è corretta?” potrebbe diventare necessario chiedersi “la persona ha capito correttamente cosa significa?”.
È una distinzione apparentemente semplice, ma può cambiare radicalmente il modo in cui vengono progettati e testati gli strumenti di comunicazione sanitaria basati sull’intelligenza artificiale.
